Georgi Gerganov

llama.cpp 创始人；端侧 LLM 推理生态事实标准的奠基人；GGUF 格式发明者。

基本信息

职业生涯

• 早期：物理 + 计算机科学背景，从事消费电子和小型项目
• 2022-09 发布 GGML 张量库（C 语言实现的轻量级深度学习库）
• 2023-03 发布 llama.cpp，让 LLaMA 模型可在 MacBook CPU 上跑
• 2023-08 发布 GGUF 格式
• 2024 llama.cpp 成为端侧 LLM 部署事实标准
• 2025 持续维护，扩展支持多模态、MoE、新硬件后端

关键决策 / 成就

• llama.cpp 开源：让任何人都可以在自己电脑上跑 LLM，推动 AI 个人化与端侧 AI
• GGUF 格式：统一了端侧 LLM 推理的模型格式标准
• 极简哲学：纯 C/C++ 实现，无 Python / PyTorch 重依赖，跨平台运行
• 独立运营：拒绝大公司收购邀约（如有），保持开源中立性

在 AI 产业链中的角色

Georgi Gerganov 是 AI 开源生态的"全球公共物品"建设者之一。llama.cpp 间接催生了 Ollama、LM Studio、Jan 等大量端侧 LLM 工具，是端侧 AI 部署的核心基础设施作者。没有 llama.cpp 就没有端侧大模型的普及。

关联实体

• llama.cpp
• GGUF
• 模型量化
• 端侧AI